Bayangkan proses menyulap otak dibandingkan hanya memberikan naskah. Di era sebelumnya dalam NLP, Adaptasi domain adalah proses yang melelahkan dari Transfer Learning atau PEFT (Fine-Tuning Efisien Parameter). Kami menganggap model sebagai tanah liat, yang membutuhkan ribuan contoh berlabel untuk secara fisik mengubah bobot internal—proses yang penuh gesekan komputasi dan menghasilkan versi statis yang sangat spesialisasi seperti BERT.

Katalis GPT-3

Rilis GPT-3 menandai State-of-the-Art (SOTA) tahapan penting. Ini membuktikan bahwa pembelajaran kontekstual—di mana model mengenali pola langsung dari prompt—sering kali setara atau melampaui kinerja fine-tuning khusus untuk tugas umum. Kita telah beralih ke inferensi berbasis prompt, di mana latensi dan biaya pembaruan gradien digantikan oleh penyuntikan konteks secara strategis.